雷峰网
04-21 07:12
周鸿祎谈AI风险：龙虾类智能体仍存安全隐患，“安全智能体”成关键解法
📌 一句话：AI智能体存在失控风险，周鸿祎认为“安全智能体”是破解AI安全难题的关键方案。
💡 3个要点
AI智能体正在从“工具”演变为“行动者”，失控风险上升
周鸿祎用“螃蟹类智能体”比喻有攻击性的AI，暗指当前安全隐患
“安全智能体”通过内置约束机制，让AI在可控范围内行动
📖 背景
AI Agent（智能体）是今年最热技术方向，能自主执行复杂任务。但随着智能体能力增强，如何防止其做出危害性行为，已成为行业焦点问题。
💭 点评
周鸿祎这次抓住了AI发展的核心矛盾：能力越强，危害越大。与其事后灭火，不如从设计阶段就植入“安全基因”。安全智能体的思路值得肯定，但关键在于谁来制定规则、谁来监督执行——这需要行业共识，更需要硬性标准。安全不应是竞争力，而是底线。 ---
📡 来源：雷峰网
📖 原文链接
点击阅读原文 →